Năm 20 tuổi, Tào Tháo thi đỗ Hiếu liêm. Ông được quan Kinh Triệu doãn[15] là Tư Mã Phòng (cha của Tư Mã Ý) tiến cử giữ chức Bắc bộ Uý (coi giữ phía bắc) ở kinh thành Lạc Dương[16] đã nổi tiếng là người nghiêm túc. Sau khi đến nhiệm sở, ông cho đặt roi ngũ sắc trước cửa công đường, hễ ai phạm tội đều trị thẳng tay. Chú của đại thần Kiển Thạc là Kiển Thúc phạm tội vác dao đi đêm, ông sai bắt vào phủ đánh roi thẳng thừng không vì nể. Vì gia thế Tào Tháo rất lớn nên vụ việc này ông không gặp rắc rối, tiếng tăm ông cũng từ đó vang khắp kinh thành[10].

Sau đó, Tào Tháo giữ chức tướng quốc nước Tế Nam[17], ông lại liên tiếp đứng ra tố cáo các quan tham phạm pháp; sau đó lại phá hơn 600 ngôi miếu thờ mà triều đình không cho phép thờ cúng.